高效推理
  1. 首页
  2. 高效推理

列表

OLMoE

OLMoE

OLMoE是一款基于混合专家（MoE）架构的开源大型语言模型，具有高效的稀疏激活机制和快速训练能力。它支持自然语言理解、文本生成、多任务处理等功能，并广泛应用于聊天机器人、内容创作、情感分析和问答系统等领域，通过预训练和微调实现高精度任务执行。 ---
AI项目与工具 2025年06月12日
Find3D

Find3D

Find3D是一款由加州理工学院开发的3D部件分割模型，通过自动化数据生成技术和对比学习方法，实现了高效且精准的3D对象分割。它能够在多个数据集上达到三倍于次优方法的性能提升，支持开放世界下的任意文本查询分割，广泛应用于机器人、虚拟现实、建筑设计等领域。
AI项目与工具 2025年06月12日
Fox

Fox

Fox-1是一系列由TensorOpera开发的小型语言模型，基于大规模预训练和微调数据，具备强大的文本生成、指令遵循、多轮对话和长上下文处理能力。该模型在多个基准测试中表现出色，适用于聊天机器人、内容创作、语言翻译、教育辅助和信息检索等多种应用场景。
AI项目与工具 2025年06月12日
OmniAudio

OmniAudio

OmniAudio-2.6B是一款专为边缘设备设计的高性能音频语言模型，具备语音识别、转录、问答、对话生成及内容创作等核心功能。其技术优势在于多模态架构的高效集成、稀疏性利用以及三阶段训练流程，支持FP16和Q4_K_M量化版本，确保在资源受限的环境下仍能稳定运行。OmniAudio-2.6B可应用于智能助手、车载系统、会议记录、教育和医疗等多个领域，为用户提供便捷、高效的语音交互体验。
AI项目与工具 2025年06月12日
RLCM

RLCM

RLCM是由康奈尔大学开发的一种基于强化学习的文本到图像生成框架，通过微调一致性模型以适应特定任务的奖励函数，显著提升生成效率与图像质量。其核心技术包括强化学习、策略梯度优化及任务导向的奖励机制，适用于艺术创作、数据集扩展、图像修复等多个领域，具有高效的推理能力和对复杂任务的适应性。
AI项目与工具 2025年06月12日
BlockDance

BlockDance

BlockDance是由复旦大学与字节跳动联合开发的扩散模型加速技术，通过识别结构相似的时空特征（STSS）减少冗余计算，提升推理效率达25%-50%。结合强化学习的BlockDance-Ada模块实现动态资源分配，平衡速度与质量。适用于图像、视频生成及实时应用，支持多种模型，兼顾高效与高质，适用于资源受限环境。
AI项目与工具 2025年06月12日
VITA

VITA

VITA-Audio 是一款开源的端到端多模态语音大模型，具备低延迟、高推理效率和多模态交互能力。其核心创新包括轻量级 MCTP 模块和四阶段渐进式训练策略，使模型在语音识别、文本转语音和口语问答等任务中表现优异。支持实时对话、智能客服、教育辅助、医疗辅助及内容创作等多种应用场景，适用于各类语音交互系统。
AI项目与工具 2025年06月11日
SearchAgent

SearchAgent

SearchAgent-X是由南开大学和伊利诺伊大学厄巴纳香槟分校（UIUC）研究人员开发的高效推理框架，旨在提升基于大型语言模型（LLM）的搜索Agent效率。通过高召回率的近似检索、优先级感知调度和无停顿检索等技术，显著提高系统吞吐量（1.3至3.4倍），降低延迟（降至原来的1/1.7至1/5），同时保持生成质量。该框架优化资源利用率，适用于智能客服、搜索引擎、企业知识管理等多种场景，为复杂A
AI项目与工具 2025年06月11日
SmolDocling

SmolDocling

SmolDocling-256M-preview 是一款轻量级多模态文档处理模型，能将图像文档高效转换为结构化文本，支持文本、公式、图表等多种元素识别。模型参数量仅256M，推理速度快，适合学术与技术文档处理。具备OCR、布局识别、格式导出等功能，并兼容Docling，适用于文档数字化、科学研究及移动环境应用。
AI项目与工具 2025年03月22日